Chip 1996 April

home *** CD-ROM | disk | FTP | other *** search

/ Chip 1996 April / CHIP 1996 aprilis (CD06).zip / CHIP_CD06.ISO / hypertxt.arj / 92 / WEIZEN.CD < prev next >

Wrap

Text File | 1995-09-12 | 35KB | 580 lines

@VJoseph Weizenbaum: A szellemi prostitúció ellen@N Milyen következtetéseket vonnak le az informatikusok, ha újra felmerül bennük az a gondolat, hogy a technika -- miként az Öböl-háború idején is -- sosem marad semleges!? Joseph Weizenbaum a tudomány és a tudósok lehetôségeinek határait elemzi. Vajon lehetnek-e hasznosak az akadályok, vagy csak hátráltatják az embert? Azt is kérdezhetnénk elsôként: Társadalmunkban ki az, aki részben vagy akár teljesen nincs korlátok közé szorítva? A csecsemôknek, a kisgyerekeknek, az elmebetegeknek, az udvari bolondoknak és néhány mûvésznek mindent szabad. A mûvészektôl olyan sokat várunk el, hogy mindent megengedünk nekik. Gondolhatunk akár Hitlerre is, de nem kell feltétlenül gonosz emberekre gondolni. Én itt egy magyar matematikusra, Erdôs Pálra gondolok, aki kétségtelenül az évszázad legjobb matematikusa, s aki egyszerûen sosem ragaszkodott a konvenciókhoz, és akinek minden szabad volt -- mivel annyira ért a munkájához, és ráadásul senkinek sem árt. Vajon a kutatás korlátozása egyenlô-e a természettudomány cenzúrájával? A cenzúra kemény szó, de mégis azt mondanám: igen, mivel másképp nem megy. Azzal a kérdéssel is foglalkoznunk kellene, hogy valószínûsíthetôen honnan származnak a kutatás akadályai? A ""valószínûsítés" itt a véleményalkotás minôségére céloz -- s nem éppen tudományos gondolkodásra vall. A kutatás egyik alapvetô korlátja -- akár akarjuk, akár nem -- az idô. A halandó számára megszabott idô, hogy elérjen valamit. Csodálkozom, milyen kevéssé vesszük ezt figyelembe. Végtelenül sok tennivaló van, és a források végesek. Különösen az emberi képességek forrásai korlátozottak. Elméletben végtelenül sok olyan kérdés van, amit felvethetnek a tudósok, de egy vagy két nemzedék számára csak egészen kevés, ténylegesen feltett kérdés létezik. Ez azt jelenti, hogy minden generációnak el kell döntenie, hogy mely kérdésekre keres választ és melyekre nem. Jó néhány kérdést meg kell hagynunk gyerekeinknek -- a következô generációnak. És talán vannak olyan kérdések is, amelyeket egyáltalán nem kellene megválaszolnunk. Van-e olyan dolog, amire nem szabadna gondolnunk? Azt hiszem, a gondolkodást nem lehet betiltani. De mi van az eszmékkel? Albert Einsteinrôl mesélik a következô anekdotát: Egy fiatal újságíró arról faggatja Einsteint, hogy mindig van-e nála jegyzetfüzet? Einstein értetlenül felel: ""Nem -- de miért lenne?!" ""Hát arra az esetre, ha támad valami jó ötlete." -- mondja az újságíró. Mire Einstein: ""Tudja, fiatalember, egész életemben csak két-három ötletem volt. Tehát egyáltalán nem lehet megtiltani a gondolatok megszületését, ez lehetetlen. De talán vannak olyan gondolatok, amelyek eszünkbe jutnak, azonban nem kellene ôket továbbgondolnunk. Legalább el kellene gondolkoznunk azon, hogy miért bukkantak elô ezek a gondolatok. Egy pszichiáter mondta nekem egyszer: Nem tehetünk arról, ha szerelmesek leszünk, de eldönthetjük, hogy ekkor mit teszünk. Ugyanígy azt is eldönthetjük, hogy mit teszünk a gondolatokkal. Tudatában kell lennünk annak, hogy a világ nem a tudósok magánlaboratóriuma. Hogy a tudósok felelôsséggel tartoznak. Például nézzük a génmanipulációt. Az emberek kitalálhatnak ugyan minden lehetséges dolgot, de amint belekezdenek a kísérletekbe, már nem dönthetik el egyedül, hogy laboratóriummá változtatják egész környezetünket. Tehát vannak határok, és kellenének korlátozások. Vannak-e olyan tervek, amelyeket egyáltalán nem kellene megvalósítani? Két terv jut az eszembe, és meg lennék lepve, ha valaki itt hozzájárulna megvalósításukhoz. Az egyik: egészséges újszülöttek agyán végzett mûtétek az agykutatás érdekében. Ezt nem merjük megtenni. Miért nem? Honnan jön ez a gátlás? És mi ennek a mechanizmusa? És a másik terv: néhány szakember a Massachusetts Institute of Technology (MIT) fizika osztályáról mondta, hogy elméletileg elô lehetne állítani egy Coca-Colás üveg nagyságú atombombát. Ez a vállalkozás azonban az elsô atombombát elôállító Manhattan-terv méreteivel vetekedne. Én azt mondanám, hogy egy ilyen tervet egyszerûen nem lehet engedélyezni. Azt sem hiszem, hogy bárki -- ha nem az emberek ellensége -- komolyan gondol egy ilyen terv politikai, pénzügyi vagy tudományos támogatására... De nem is tudom. Az a gondolat, hogy a tudományos kutatásnak korlátai vannak, egyáltalán nem olyan szörnyû, mint amilyennek elsô hallásra tûnik. Valóban van cenzúránk, különösen öncenzúránk. A kérdés inkább az, hogy honnan származik, és kitôl eredjen? Könyvemben ilyen összefüggésben beszéltem a ""céltudatos elme imperializmusáról". Mint jelent ez? Az imperializmus egy törvénytelenül megszerzett hatalom gyakorlása. Például az USA kongresszusának joga van olyan törvényeket hozni, amelyek valamit engedélyeznek vagy betiltanak az USA-ban. Az alkotmány ruházza fel a kongresszust ilyen hatalommal. Az USA-nak azonban nincs törvényes joga arra, hogy más országok államformáját meghatározza. Ez már imperializmus. A ""céltudatos elme" fogalma alatt olyan gondolkodásmódot értek, amely csak elérendô vagy elkerülendô célokból indul ki -- de nem alapulhat minden cselekvésünk ezen a felfogáson. Erre is van két példám. Ön talál az utcán egy pénztárcát, benne egy halom pénzzel. Elviszi a talált tárgyak osztályára, hogy visszakerüljön a tulajdonosához. Valaki megkérdezi: ""Miért tette ezt?" Az érdekes az, hogy Ön milyen választ várna el ilyen esetben. Egyik lehetséges forma a következmények felsorolása: ""Ha nem adtam volna vissza a pénzt, akkor biztosan elköltöm vagy bankba teszem. És akkor az adóhatóságoknak -- Amerikában a híres IRS-nek (Internal Revenue Service) -- feltûnne a dolog és azt mondanák, hogy kijátszottam az adókötelezettséget. Az egész nagyon rosszul is végzôdhetne. Ezért adtam vissza a pénztárcát." Ezzel szemben az a válasz, amit elvárunk vagy remélünk, egészen más: ""Nem tudom, miért adtam vissza. Én már csak ilyen vagyok. îgy neveltek." Vagy: ""Mi ezt tesszük, ez itt így szokás." Tehát nem veszünk számításba semmiféle profitot. Nem a ""céltudatos elmére" hivatkozunk, hanem másfajta felfogásra. @VKi fizet?@N Egyszer régen írtam egy tervjavaslatról, amelyben egy halott macska agyát mesterségesen életben tartanák, és a látómezejét egy számítógépbe ültetnék, hogy a számítógép képessé váljon a látásra. ùgy véltem, ez embertelen. Ezt nem szabadna megtenni. Amikor megkérdezték, hogy miért nem, akkor ugyanazt a választ adtam, mint a pénztárcás példában: a terv undorító és tisztességtelen -- egyszerûen nem tehetjük meg. Ezzel azt akarom mondani, hogy a döntésekben más szempontok is szerepet játszanak, még a tudományos kutatással kapcsolatos döntésekben is. Egyik szempont: mire használják majd a végterméket? Elkészítek valamit, talán valamilyen eredményre jutok, és el kell gondolkoznom: mi történik majd vele? A kollégákkal folytatott beszélgetésekbôl különféle válaszokat ismertem meg -- úgy is mondhatnám: különféle módokat a kérdés kikerülésére. Például: ""Nem tudhatom, mire fogják késôbb használni a munkámat." Vagy: ""Mindent fel lehet használni jó és rossz célra, de remélem, hogy a munkámat jó célra használják majd." Vagy: ""Hol a határ a jó és a rossz között?" Ezek igen súlyos kérdések. Mivel valószínûleg egyáltalán nem tudunk válaszolni rájuk, arra a következtetésre jutunk, hogy nem vállalhatunk felelôsséget az ilyen döntésekért. Ha komputerkutatásról, informatikáról és mesterséges intelligenciáról (MI) van szó, az emberek így szólnak: ""Nem tudhatom, hogy mire fogják felhasználni." Erre ezt válaszolom: ò, dehogynem tudja. Itt egy idegen országban vagyok, de Amerikában nagyon jól lehet tudni, hogy végsô soron mire használják fel az MI-laborok munkáját, vagy azét a laboratóriumét (Laboratory for Computer Science), amelyben én is dolgozom. Az MIT esetében egészen tisztán látjuk: ha bármilyen mód van arra, hogy egy kutatási eredményt -- például a számítógépes képfelismerésben -- beépítsenek egy fegyverbe, annak ""tökéletesítése" végett, akkor azt meg is teszik. Ezt statisztikailag igazolni lehet; de már az is erre utal, ha egyszerûen megkérdezzük, hogy ki fizeti meg a munkát. Esetünkben ez legtöbbször a Pentagon. Ebbôl sejthetô, hogy az eredményeket végsô soron katonai célokra használják fel. Természetesen vannak ellenérvek is, például a ""Nem az én feladatom, hogy megtudjam, mi történik majd a munkámmal." jellegû válasz. Wernher von Braun, aki ""Megyek a csillagok felé" címmel írt egy nagyon jó könyvet (amelynek címét ""...de néha Londonba érek" alcímmel lehetne kiegészíteni), válaszolt az ilyen kérdésekre: ""Ez nem rám tartozik". Ennyi. Vagy régi kollégám, Herbert Simon, a Carnegie Mellon University MI Kutatási Részlegérôl -- akivel hosszabb vitát folytattam errôl a kérdésrôl -- ezt mondta: ""Amerikában népképviseleti kormányformánk van. Megválasztott képviselôink kezébe adjuk a döntést, hogy mi történjen a tudományos munkánkkal. És ha ez nem tetszik nekünk, akkor választhatunk másokat." Szerintem ez egyfajta lemondás. Engem ez a német tudósok többségének hozzáállására emlékeztet, különösen a Harmadik Birodalom idejében: ""Tudósok vagyunk, a politika nem tartozik ránk, a Führeré a döntés." Mit kezdünk azzal a gondolattal, hogy mindent fel lehet használni jó és rossz célokra? Tegnap valaki azt mondta a sajtótájékoztatón: ""Az Isten szerelmére, nem tilthatjuk be a cipôgyárakat csak azért, mert a cipôket katonák is hordhatják." Ekkor jön az a kérdés, hogyan lehet eldönteni, mi a jó és mi a rossz? Ez természetesen egy ôsrégi képtelen kérdés, amire nem tudok választ adni. De addig közelíthetünk hozzá, mígnem könnyebben meghatározhatjuk, hogy hol húzzuk meg a határokat. S ilyenkor azt kell mondanunk: ""Eddig a pontig benne vagyok, de tovább nem." Tehát tulajdonképpen mi a jó és mi a rossz? Hogy elgondolkozzunk ezen, nagyobb látószögû lencsén keresztül kell szemlélôdnünk, sokkal nagyobb környezetet kell átfognunk. Például: Ha az elôadásokon olyan dühösen beszélek, ahogyan azt elvárják tôlem, akkor elôkerül a következô érv: ""De hát humán célokra, például az orvostudományban lehet számítógépeket használni!" Ha kérek erre egy példát, legtöbbször a komputer-tomográfokat (CAT-scannerek, Computer Aided Tomography) hozzák fel. Lehet-e rosszat mondani egy CAT-scannerrôl? Amennyire tudom, még senkit sem öltek vagy sebesítettek meg vele; arra használják, hogy megvizsgálják az élô agyat: szükség van-e mûtétre, és ha igen, akkor hol van a tumor pontos helye, hogy a mûtét egyszerûbb legyen. De most nézzük ugyanezt nagyobb látószögbôl! Kérdés, hogy a CAT-scannereket milyen társadalmi összefüggésben használják. Az USA-ban azt a hatást váltja ki, hogy az eddiginél még néhány százezer emberrel több nem fog sosem orvoshoz menni és orvosi kezelést kapni. Hogyhogy? Az amerikai orvosok piacgazdasági rendszerben dolgoznak, és mindig ki vannak téve annak a veszélynek, hogy mûhiba miatt feljelentik ôket. Ez ellen be kell biztosítaniuk magukat. Ez pedig azt jelenti, hogy az orvosi ellátás költségei növekednek. De ez még nem minden. Ha elmegyek egy orvoshoz és azt mondom, hogy a jobb kezem kisujja fáj, akkor azt mondaná (természetesen túlzok): ""Teljes kivizsgálásra van szükség, ami két napot jelent a kórházban, röntgennel, CAT-scannerrel, vérvizsgálattal és minden egyébbel együtt." Miért teszi ezt? Azért, hogy ne perelhessék be, mert elfelejtett valamit. Ezért a társadalmunk felelôs, és nem az orvostudomány mint olyan, és a CAT-scannernek már végképp semmi köze hozzá. Szinte minden kórházban van két-három CAT-scanner, amelyeket folyamatosan tovább kell tökéletesíteni. Ezek nagyon drágák, és mi amerikaiak azt vesszük észre, hogy az egészségügyet tönkreteszi a technikai fejlôdés. A CAT-scannert tehát azon társadalmi körülmények fényében kell nézni, amelyekbe be van ágyazva. A számítógépes képfelismerés esetében teljesen világos -- szinte már kötelezô --, hogy a katonaság azonnal megszerez magának minden olyan eredményt, amely valamilyen hatást gyakorol a komputerek látóképességének javulására. Nem állíthatjuk, hogy nem tudtuk elôre. Pontosan tudjuk. @VCéltudatos gondolkodás@N Tegyük fel, hogy meg akarjuk állítani a fegyverkezést a világon. Hol húzzuk meg a határt ? Szerintem részben önkényesen kell meghúznunk. Például csinálhatnánk egy közvéleménykutatást. Mindenki felírhatná egy cédulára, hogy mikor van vége a napnak, és mikor kezdôdik az éjszaka. Feltételezem, hogy sok különbözô választ kapnánk. Egyik ember talán azt mondaná: ""Ha a nap lemegy." És ha tovább kérdezünk, hogy hol megy le: ""Ha a lakásomban vagyok és a nap ott megy le a hegy mögött." Vagy egy angol talán azt mondaná: ""A tea után, de a koktél elôtt." Tehát vannak meghatározott indokok, amelyekbôl kiindulva döntünk: itt végzôdik a nap, és onnan kezdôdik az éjszaka. Hogyan tesszük ezt? Többé--kevésbé önkényesen. De egy világos: tudjuk, hogy a dél nappal van, és tudjuk, hogy az éjfél éjjel van. Ez az a kritérium, amit fel akarok használni. Tehát ha azon dolgozunk, hogy egy rakéta célzási pontosságát tökéletesítsük, akkor egészen világos: ez éjszakai munka. Ebben az esetben nem kell kifejtenem, hol húzom meg a vonalat. Ez egyszerûen az ""éjszakát" jelenti -- ez egyáltalán nem kérdés. És vannak más dolgok, amelyek társadalmi összefüggésben egyszerûen a ""nappalt" jelentik, és amelyeket nyugodtan, rossz lelkiismeret nélkül meg lehet tenni. Meg kell mondanom, hogy társadalmunk egy ôrültek háza, ezt mindennap olvashatjuk az újságban. Ezért sokkal hosszabbak az éjszakáink, mint a nappalaink. De ez más téma. Ilyen módon eldönthetjük, mi a ""jó" és mi a ""rossz". Bár a döntéssel nem mindenki ért egyet, de magunk számára mindenképpen érvényes. És aztán elgondolkozunk: ""Végsô soron hogyan használják majd a munkámat?" Elsôsorban ""nappal"? Vagy fôleg ""éjszaka"? Ekkor eszünkbe ötlik egy másik kérdés is: ""Milyen körben használhatják fel a munkámat? Lehet, hogy ezt most nem csinálhatom meg, mert száz év múlva esetleg rossz célra használják? Vagy még az életemben megvalósul munkám célja? Tegnap a sajtótájékoztatón a mesterséges itelligenciával foglalkozó kutatók, különösen az MIT szakemberei felelôsségérôl beszéltünk. Arról, hogy mi a mesterséges intelligencia célja, és vállalhatjuk-e érte a felelôsséget? Marvin Minsky azt mondta, hogy a MI célja a halál kiküszöbölése. Feltételezem, hogy néhányan itt kissé meg fognak lepôdni ezen a kijelentésen. De az Egyesült Ållamokban széles körben elterjedt ez a felfogás. Ott már húsz éve folyik ez az eszmecsere; Németországban csak most kezdenek komolyan foglalkozni vele. Arra a könyvre gondolok, amelyet Marvin Minsky már említett, Moravec ""Mind Children" címû könyvére. Moravec azt állítja, hogy nemsokára -- bár az ô életében sajnos még nem, de gyerekeiében már igen -- számítógépen lehet ""egy embert tárolni". Angolul ""to download a human being into a computer" -- természetesen ""teljesen digitalizálva", ami azt jelenti, hogy ez az ember örök életû lehet. Ha a számítógép rozsdásodni kezd, akkor át lehet vinni ezt a digitális információt egy másik számítógépre -- ez már a halhatatlanság. Szeretném hangsúlyozni: Hans Moravec a robot-labor vezetôje a Carnegie Mellon Universityn. Mindenki tudja, hogy ez az intézmény az USA egyik nagyon fontos mûszaki egyeteme. És a " Mind Children" könyv nem az Axel Springer kiadónál jelent meg, hanem a Harvard egyetemen (Harvard University Press). Tehát komolyan kell venni. Láthatóan Minsky is komolyan veszi. Tehát azt állítják, hogy a halál kiküszöbölése a cél, és még hozzá is teszik: hogyan is hagyhatnánk abba a munkát?! Ha az ember elfogadja ezt az érvelést, akkor azt a filozófiai felfogást vallja, hogy a cél szentesíti az eszközt. Nem tudom, hogy e filozófia nevében hány hordó (így mondanák ma, hiszen mindig olajoshordókról beszélünk) vért ontottak ki az elmúlt kétszáz évben. Érdekes kérdés lenne az is -- bár itt nem tudok foglalkozni vele --, hogy vajon a halál kiküszöbölése, amennyiben lehetséges lenne, abszolút érték-e? Nekem az a véleményem, hogy ez kultúránk megsemmisítését jelentené. Kultúránk élôlény, amely úgy marad életben, hogy egyik nemzedék adja át a következônek. Ez nem olyan információátvitel, mint egy bitsorozat lemásolása. A kultúrát a következô generáció minden tagjának újból reprodukálnia kell. De ez a nemzedék már nem ugyanazt hozza létre, amit az elôzô nemzedék átadott neki, hanem változtat rajta. Ez az emberi kultúra élete. Valóban meg akarjuk ezt semmisíteni? Könyvében Moravec említi kutatási programjának még egy kis mellékhatását, amit ô ""mind blowing idea"-nak, bomba ötletnek nevez: egy biológia utáni korszakról beszél. Világosan megfogalmazza, hogy a DNS hamarosan elveszti funkcióját, és a biológia, az élet a mi fogalmaink szerint egyszerûen megszûnik. Ha tehát a kutatásnak ilyen mellékhatása van, akkor véleményem szerint nem szabad azt mondanunk, hogy célja abszolút érték. Milyen messze lehet a távlati cél? Megengedhetetlennek tartom azt az érvet, amit itt tegnap Marvin Minsky kifejtett. ï azzal érvelt, hogy a cél jó, de még nagyon-nagyon messze van, tehát nem kell figyelnünk a közbensô lépésekre. Azt hiszem, ez nem mehet így. @VElfojtás@N Amerikában pontosan tudjuk: ha sikert érünk el a képfelismerés és a mesterséges intelligencia területén, akkor az egy fegyver ""tökéletesítéséhez" fog vezetni. De ez a tudás meglehetôsen távoli, ugyanis hozzászoktunk ahhoz, hogy tetteink és azok következményei között lélekben távolságot tartsunk. Társadalmunkban ez igen széles körben elterjedt, s nemcsak most, az évszázad utolsó évtizedében. Vietnam bombázására gondolok, egy tízezer méter magasan repülô B-52-es géppel. Egy kis képernyôn megjelenô elektronikus jelzés közli a pilótával, hogy elérte a célt, ki kell oldania a bombát. Megnyom egy gombot. A bombák lezuhannak. A pilóta nem látja ôket. Már messze jár, amikor a bombák becsapódnak. Nem is hallja ôket. Egészen biztos, hogy az emberek kiáltását sem hallja. Csak azért képes megnyomni a gombot, mert lélekben távol tartja magát tette következményeitôl. Ez mintegy húsz éve volt. Ma ugyanezt láthatjuk a videojátékoknál, amelyekkel a gyerekek játszanak. Sokan panaszkodnak: milyen szörnyû, hogy a gyerekek passzívan ülnek és nézik a tévét. Ugyanezek az emberek azt állítják, hogy a megoldást a videojátékok jelentik. A gyerek néz egy filmet a tévében, mondjuk a ""Run silent, run deep"-et, amelyet az USA-ban már ezerszer lejátszottak. Ez jellegzetes módon a tengeralattjárókról szól, szinte azt lehetne mondani, hogy az ilyen filmek paródiája. A gyerek látja, amint a kapitány a periszkópon keresztül figyel egy teherhajót, amely lehet, hogy hadihajó. Aztán egy ideig mûszaki részletekrôl van szó, például a hajó távolságáról stb., majd kilövik a torpedót. A matrózok stopperrel mérik az idôt, és izgatottan várják a becsapódást. Aztán a kapitány távcsövén keresztül látja, amint felrobban a hajó és a legénység odavész. Megint sikerült. De a szülôk aggódnak a gyerek miatt, aki csak passzívan ül a tévé elôtt, s nem csinál semmit. Segít majd a videojáték! Ezzel a gyerek maga lehet a tengeralattjáró kapitánya, egy gombnyomással kilôheti a torpedókat, és ha ügyesen csinálja, akkor láthatja, hogyan robban fel és süllyed el a hajó. Én azt mondom, hogy ez egyfajta gyakorlása a cselekedetek és azok következményei közötti lelki távolság megteremtésének. A gyerek legtöbbször nem gondol arra, hogy emberek halnak meg, amikor a hajó felrobban. Különösen a videojátéknál nem, hiszen ott mindent nagyon gyorsan kell csinálni. Ráadásul ha tíz hajót süllyeszt el, akkor több pontot kap mint a kisöccse, aki ugyanennyi idô alatt csak hét hajót tud elsüllyeszteni. Erre tanít a videojáték. Egy kis újságcikkben olvastam, hogy Németországban -- amely igen fejlett ország -- olyan számítógépes játék került forgalomba, amelyekben a gyerekek egy koncentrációs tábort irányíthattak. @K(Közbekiáltás a terembôl: Ezt a játékot Németországban betiltották!)@N Igazából az az érdekes, hogy egyáltalán létezett ilyesmi, s azután be kellett tiltani. Amire ki akarok lyukadni: az ember csinál valamit, és a cselekedet következményeit figyelmen kívül hagyja. @VSzépítgetés@N A kutatólaboratóriumokban hasonló dolgot lehet megfigyelni. Erre mondok egy kis történetet. Egyszer Cambridge-ben éppen a Harvard téren mentem át, amikor odajött hozzám egy fiatalember, aki azelôtt egyik szemináriumomra járt. Most doktorál, és szeretné elmesélni, hogy mirôl írja disszertációját. Képzeljek magam elé egy óriási képernyôt, amelyen egy medve és egy kiscica látható. A cica egy labdát dob a medvének, aki elkapja, és visszagurítja a cicának. A képernyô elôtt ül egy kislány, aki így szól a rendszerhez: ""Medve, ha valaki ad neked valamit, akkor köszönd meg." Ha ezután a macska megint odadobja a labdát a medvének, akkor a medve így szól: ""Köszönöm, kedves cica". A disszertáció lényege ennek a rendszernek a megvalósítása. A profik tudják, hogy ez roppant nehéz feladat, fôleg hogy olyan gördülékenyen menjen, ahogy a fiatalember leírta. Beszédfelismerésre van szükség, meg ilyesmikre. Megkérdeztem a doktorjelöltet, hogy akarja-e hallani, hogyan látom én a rendszert, hogy meggyôzôdjek, jól értettem-e. És elmeséltem neki a következô történetet: Egy pilóta ül a vadászgépben, és a rendszer egyszer csak megszólal: ""Uram, ott lenn ellenséges harckocsioszlopot látok." A pilóta ekkor így szól a rendszerhez: ""Ha ilyesmit látsz, akkor indítsd el a rakétákat, és ne kérdezd meg mindig." -- és a rakéták útra kelnek. Pont. Vége a történetnek. Megkérdeztem a fiatalembert, hogy jól írtam-e le a munkáját, és ô azt felelte, hogy igen, így is fel lehet fogni. Megkérdeztem, ki fizeti a kutatás költségeit. Kiderült, hogy a hadsereg. ùgy vélem, az én értelmezésem közelebb áll a valósághoz, mint az övé. Voltak hasonló tapasztalataim más kutatási tervezetekkel is, amelyeket ugyanilyen csodálatosan szép mesékkel festettek le. Mellékesen, az 1980 elôtti idôszakban -- tehát a Reagan-kormányzat elôtt -- a Pentagon igen ritkán nevezte nevén fegyverrendszer-kutatási megrendeléseit. Minden lehetséges eufemizmust felhasználtak. Csak a nyolcvanas évek kezdetén -- amit a Time magazin az új hazafiasság idejének nevezett -- kezdte el a Pentagon a fegyverrendszereket valóban nevükön nevezni. Az MIT-n három rendszeren dolgoztak, elsôsorban a mesterséges intelligenciát kutató laboratóriumban -- a tervezet neve SCI volt (Strategic Computing Initiative). Az egyik rendszer éppen az a pilóta-rendszer volt, amelyet az elôbb ismertettem: a ""Pilot Assistance" feladata, hogy a második embert helyettesítse a vadászgépen. @VA pénz diktatúrája@N ùgy vélem, fausti szerzôdést kötöttünk a tudománnyal és a technikával. Faust nem ingyen adta el a lelkét. Akart valamit cserébe. Mi sem ingyen adjuk el a lelkünket, mindig kapunk valamit cserébe. Itt van például a High Definition Television -- nagyfelbontású televízió (HDTV). Ezzel jobb és szebb képet kapunk. A kutatás hatalmas összegeket emészt fel. A kutatás céljának valójában kevés köze van a szórakoztatáshoz, de azt mondjuk, na jó, lépjünk még egyet elôre, hiszen ez az egy lépés senkinek sem fog ártani. Nem tûnôdünk el azon, hogy egyáltalán akarjuk-e. Ha itt megkérdezném, hogy melyikük számára nélkülözhetetlen a HDTV, akkor valószínûleg senki sem mondana igent. De tíz éven belül önök közül szinte mindenkinek lesz otthon HDTV-je. Itt valami nincs rendben. Mindenki elismeri, hogy nincs rá szükségünk, különösen azért nem, hogy lássuk azt a sok ostobaságot, ami általában a tévébôl jön. Mesterségesen létrehozott szükségleteink vannak. És valami nincs rendben, ha mesterségesen hozunk létre szükségleteket, s ugyanakkor sok ember létfontosságú szükségletei sincsenek kielégítve. Tehát akarunk valamit, s ezalatt kifejlesztünk egy olyan rendszert, amely félrevezet bennünket. Többé nem tudjuk kontrollálni, de nem is lehet visszafordítani. Már nem mondhatjuk, hogy hibát követtünk el, csináljuk vissza az egészet. E rendszerek közül sok már irányíthatatlan, áttekinthetetlen és visszafordíthatatlan. Lehet-e másképp csinálni? Az a véleményem, hogy az embereknek fel kellene ismerniük a kor szükségleteit, azokat fontossági sorrendbe állítani, és e lista alapján dönteni: a természetnek feltehetô kérdések közül ténylegesen melyekre vagyunk most kíváncsiak, és a mûszakilag megvalósítható berendezések közül melyeket állítsuk elô ténylegesen? Már nem a megoldással kellene kezdenünk. Körülbelül tizenöt évvel ezelôtt még az volt a szokás abban a számítástechnikai laboratóriumban, ahol dolgoztam, hogy mondjuk az orvosok odajöttek hozzánk és azt mondták: ""Önöknek van egy csodálatos készülékük, amelyet biztosan fel lehetne használni az orvostudományban. Mi elmagyarázzuk az orvosi szempontokat, Önök pedig elmondják nekünk, hogyan lehetne a készüléket felhasználni." Tehát a megoldással kezdték. Az ügyvédek is ilyenek. S különösen így van ez az iskolákban. El kell azon gondolkozni, hogy az amerikai iskolákban a fiatalok jelentôs része analfabéta -- legalábbis olyan értelemben, hogy nem érti meg, amit olvas. Nem arról van szó, hogy egy képregényt sem tudnak elolvasni, hanem arról, hogy nem tudnak elolvasni egy álláshirdetést, nem is beszélve az ûrlapról, amit ki kell tölteniük, hogy megkapják az állást. Az iskolákban aztán ilyen kérdéseket tesznek fel mint ""Why Johnny can't read?" -- ""Miért nem tud Johnny olvasni?". Teljesen világos: a megoldás a számítógép, mivel a számítógépek motiválják a gyerekeket, különösen a fiatalokat. îgy érvelünk, ahelyett, hogy valóban elgondolkoznánk: miért nem tud Johnny megtanulni olvasni, s nem csak reménykednénk, hogy a számítógép majd segít. Meg kell tudni, miért nem tud Johnny megtanulni olvasni! Lehet, hogy kiderül: azért, mert minden nap éhes. És aztán tovább kérdezünk: de hiszen adtak az iskolában reggelit és ebédet -- miért nem tud enni? Mert beszüntették az iskolai étkeztetést. Miért szüntették be? És így tovább. @K(Itt a szociális közkiadások Reagan elnöksége alatti sorozatos lefaragására utal Weizenbaum -- a szerk.)@N Hamarosan politikai kérdésekbe ütközünk. Azért kezdünk mindent a megoldással, hogy elkerüljük a szembesülést a politikai kérdésekkel. Lehet, hogy Johnny azért nem tanul jól, mert fél az iskolában? Miért kellene félnie? Mert az amerikai iskolákban már nemcsak a kábítószer-kereskedelem jelent óriási problémát, hanem az is, hogy a tanulók lôfegyvert hordanak maguknál. Tehát kérdéseket kellene feltennünk, és nem a megoldással kezdenünk -- a tudomány és a technika területén is! Hiszen manapság nem nehéz listát készíteni a szükségletekrôl. E listát mindenki ismeri, hiszen szinte banális: az éhezés, a légkör veszélyeztetettsége, az elôttünk álló ökológiai katasztrófa, háborúk és így tovább. Mindenki összeállíthatja ezt a listát, hogy aztán eldöntse: hol kezdjük, mi a fontos és mi nem. Ha ezt megtennénk a tudomány összes területén, akkor szerintem kiderülne, hogy egyszerûen le kellene állítani különbözô olyan nagyberuházásokat, amelyekkel ma foglalkozunk. Nem azért, mert a problémák nem lennének érdekesek, hanem azért, mert azokat ma nem engedhetjük meg magunknak, és gyerekeinknek is kell hagynunk valamit. Például a Mars-utazásokra gondolok: kétségtelenül gyönyörû feladat -- de miért annyira sürgôs? Miért most kell megcsinálnunk, amikor oly sok a baj?! Vagy itt vannak az óriási részecskegyorsítók. Szép dolog, hogy egyre többet tudunk a fizikáról, de most nem engedhetjük meg magunknak ezt a technikát. Semmi kifogásom egy Maserati, egy Ferrari vagy egy Porsche ellen -- de az ilyen gépeket ugye nem bíznánk egy tizenhárom éves gyerekre? Azt hiszem, hogy mi -- a mi társadalmunk -- nem vagyunk elég érettek arra, hogy bánni tudjunk jónéhány létrehozható rendszerrel. Meg kell gondolnunk, mielôtt belekezdünk ilyen tervekbe. Tehát én amellett vagyok, hogy legyen tudományos moratórium, halasszuk el az olyan tervek megvalósítását, amelyek évente körülbelül egymilliárd dollár kiadást jelentenek. Ilyesmit csak akkor csináljunk, ha nem találunk a pénz számára jobb felhasználási területet. És a végkövetkeztetésem: nincs abszolút kutatói szabadság, és nem is lehet. Nem akarok felülrôl jövô irányítást sem, s még kevésbé diktatúrát. Legkevésbé a pénz olyan diktatúráját, amilyen ma van, és amelyben a tudósok és a kutatók szellemi prostituáltakként viselkednek. @VJoseph Weizenbaum@N Aligha foglalkozott annyit más informatika-kutató a számítástechnika társadalmi következményeivel, mint a 69 éves Joseph Weizenbaum. 1923-ban született Berlinben. 1936-ban családjával kivándorolt az Egyesült Ållamokba. A II. világháború után fejezte be matematikai tanulmányait Detroitban, és elkötelezte magát az informatika mellett. 1963-ban mint az informatika professzora elôadói megbízást kapott a Massachusetts Institute of Technology-n. Az amerikai hadseregtôl jelentôs kutatási támogatást kapó MIT-n, ""a világ legnagyobb játékboltjában" (Weizenbaum) gondolkodott el Weizenbaum a tudomány társadalommal szembeni felelôsségérôl. A német ""Informatikusok a békéért és a társadalmi felelôsségért" fórum és az amerikai ""Számítástechnikusok a társadalmi felelôsségért" csoport alapító tagja a számítógépes világ életre kelt lelkiismeretévé vált. Elutasítja, ha magányos, alibit keresô kritikusnak nevezik. @VNémet nyelvû irodalom:@N Die Macht der Computer und die Ohnmacht der Vernunft (A számítógépek hatalma és az ész tehetetlensége); Suhrkamp kiadó, 1977. (angol kiadás: Computer Power and Human Reason) Kurs auf den Eisberg -- Oder das Wunder wird uns retten, sagt der Computerexperte (Irány a jéghegy -- avagy segít rajtunk a csoda, mondja a szakértô); Pendo kiadó, Zürich 1984. Kurs auf den Eisberg -- Die Verantwortung des Einzelnen und die Diktatur der Technik (Irány a jéghegy -- Az egyén felelôssége és a technika uralma); Piper kiadó, München 1987. Computer im Alltag (Számítógép a mindennapokban). Joseph Weizenbaum, Klaus Haefner; kiadta Michael Haller; Pendo kiadó, Zürich 1987. Sind Computer die bessere Menschen? (A számítógépek a tökéletesebb emberek?). Vita Joseph Weizenbaum és Klaus Haefner között. Kiadta Michael Haller, Pendo kiadó, Zürich 1990. Naturwissenschaft oder Esoterik (Természettudomány avagy titkos tudomány). H. Pitschmann, F. Paschke, K. Apel, J. Weizenbaum, Leuschner und Lubensky kiadó, 1990.